DanceOPD: On-Policy Generative Field Distillation
DanceOPD：用于流匹配模型的在线策略生成场蒸馏
🧭 多能力组合蒸馏 · 在线策略训练
ByteDance Seed · NUS · UMD · HKUST
提出一种在线策略生成场蒸馏框架，通过路由和查询学生自身状态来组合冲突的多能力，提升图像生成中的能力组合效果。
📌 工作参考价值（4 点）
- 多任务组合的在线策略蒸馏：在电商推荐中，点击、转化、时长等多目标常相互冲突，可借鉴 DanceOPD 的 on-policy 场蒸馏思想，将每个目标视为一个速度场，模型在自身 roll-out 的状态上查询各场进行学习，避免离线预计算偏差，实现多目标平衡。
- 吸收算子化目标：类似于将无分类器引导（CFG）吸收为可蒸馏的场，在推荐中可将去偏、多样性控制等算子形式化为场，蒸馏进学生模型，简化推理管线。
- 生成式推荐的训练范式：若将物品 ID 表示为生成式 token，使用流匹配生成推荐序列，DanceOPD 的 on-policy roll-out 训练方式可更好对齐生成与判别目标，减少曝光偏差。
- 路由机制与能力解耦：每个训练样本只路由到一个能力场，避免能力间相互干扰，对于多领域（如广告、内容、商品）合并训练时有直接参考价值，可按样本域标签路由到对应专家场。